home
***
CD-ROM
|
disk
|
FTP
|
other
***
search
/
Chip 1996 April
/
CHIP 1996 aprilis (CD06).zip
/
CHIP_CD06.ISO
/
hypertxt.arj
/
92
/
WEIZEN.CD
< prev
next >
Wrap
Text File
|
1995-09-12
|
35KB
|
580 lines
@VJoseph Weizenbaum: A szellemi prostitúció ellen@N
Milyen következtetéseket vonnak le az informatikusok, ha
újra felmerül bennük az a gondolat, hogy a technika --
miként az Öböl-háború idején is -- sosem marad semleges!?
Joseph Weizenbaum a tudomány és a tudósok lehetôségeinek
határait elemzi.
Vajon lehetnek-e hasznosak az akadályok, vagy csak
hátráltatják az embert? Azt is kérdezhetnénk elsôként:
Társadalmunkban ki az, aki részben vagy akár teljesen nincs
korlátok közé szorítva? A csecsemôknek, a kisgyerekeknek, az
elmebetegeknek, az udvari bolondoknak és néhány mûvésznek
mindent szabad. A mûvészektôl olyan sokat várunk el, hogy
mindent megengedünk nekik. Gondolhatunk akár Hitlerre is, de
nem kell feltétlenül gonosz emberekre gondolni. Én itt egy
magyar matematikusra, Erdôs Pálra gondolok, aki
kétségtelenül az évszázad legjobb matematikusa, s aki
egyszerûen sosem ragaszkodott a konvenciókhoz, és akinek
minden szabad volt -- mivel annyira ért a munkájához, és
ráadásul senkinek sem árt.
Vajon a kutatás korlátozása egyenlô-e a
természettudomány cenzúrájával? A cenzúra kemény szó, de
mégis azt mondanám: igen, mivel másképp nem megy. Azzal a
kérdéssel is foglalkoznunk kellene, hogy valószínûsíthetôen
honnan származnak a kutatás akadályai? A ""valószínûsítés"
itt a véleményalkotás minôségére céloz -- s nem éppen
tudományos gondolkodásra vall.
A kutatás egyik alapvetô korlátja -- akár akarjuk, akár
nem -- az idô. A halandó számára megszabott idô, hogy
elérjen valamit. Csodálkozom, milyen kevéssé vesszük ezt
figyelembe. Végtelenül sok tennivaló van, és a források
végesek. Különösen az emberi képességek forrásai
korlátozottak.
Elméletben végtelenül sok olyan kérdés van, amit
felvethetnek a tudósok, de egy vagy két nemzedék számára
csak egészen kevés, ténylegesen feltett kérdés létezik. Ez
azt jelenti, hogy minden generációnak el kell döntenie, hogy
mely kérdésekre keres választ és melyekre nem. Jó néhány
kérdést meg kell hagynunk gyerekeinknek -- a következô
generációnak. És talán vannak olyan kérdések is, amelyeket
egyáltalán nem kellene megválaszolnunk.
Van-e olyan dolog, amire nem szabadna gondolnunk? Azt
hiszem, a gondolkodást nem lehet betiltani. De mi van az
eszmékkel? Albert Einsteinrôl mesélik a következô anekdotát:
Egy fiatal újságíró arról faggatja Einsteint, hogy mindig
van-e nála jegyzetfüzet? Einstein értetlenül felel: ""Nem --
de miért lenne?!" ""Hát arra az esetre, ha támad valami jó
ötlete." -- mondja az újságíró. Mire Einstein: ""Tudja,
fiatalember, egész életemben csak két-három ötletem volt.
Tehát egyáltalán nem lehet megtiltani a gondolatok
megszületését, ez lehetetlen. De talán vannak olyan
gondolatok, amelyek eszünkbe jutnak, azonban nem kellene
ôket továbbgondolnunk. Legalább el kellene gondolkoznunk
azon, hogy miért bukkantak elô ezek a gondolatok. Egy
pszichiáter mondta nekem egyszer: Nem tehetünk arról, ha
szerelmesek leszünk, de eldönthetjük, hogy ekkor mit
teszünk. Ugyanígy azt is eldönthetjük, hogy mit teszünk a
gondolatokkal. Tudatában kell lennünk annak, hogy a világ
nem a tudósok magánlaboratóriuma. Hogy a tudósok
felelôsséggel tartoznak. Például nézzük a génmanipulációt.
Az emberek kitalálhatnak ugyan minden lehetséges dolgot, de
amint belekezdenek a kísérletekbe, már nem dönthetik el
egyedül, hogy laboratóriummá változtatják egész
környezetünket. Tehát vannak határok, és kellenének
korlátozások.
Vannak-e olyan tervek, amelyeket egyáltalán nem kellene
megvalósítani? Két terv jut az eszembe, és meg lennék lepve,
ha valaki itt hozzájárulna megvalósításukhoz. Az egyik:
egészséges újszülöttek agyán végzett mûtétek az agykutatás
érdekében. Ezt nem merjük megtenni. Miért nem? Honnan jön ez
a gátlás? És mi ennek a mechanizmusa? És a másik terv:
néhány szakember a Massachusetts Institute of Technology
(MIT) fizika osztályáról mondta, hogy elméletileg elô
lehetne állítani egy Coca-Colás üveg nagyságú atombombát. Ez
a vállalkozás azonban az elsô atombombát elôállító
Manhattan-terv méreteivel vetekedne. Én azt mondanám, hogy
egy ilyen tervet egyszerûen nem lehet engedélyezni. Azt sem
hiszem, hogy bárki -- ha nem az emberek ellensége --
komolyan gondol egy ilyen terv politikai, pénzügyi vagy
tudományos támogatására... De nem is tudom.
Az a gondolat, hogy a tudományos kutatásnak korlátai
vannak, egyáltalán nem olyan szörnyû, mint amilyennek elsô
hallásra tûnik. Valóban van cenzúránk, különösen
öncenzúránk. A kérdés inkább az, hogy honnan származik, és
kitôl eredjen? Könyvemben ilyen összefüggésben beszéltem a
""céltudatos elme imperializmusáról". Mint jelent ez? Az
imperializmus egy törvénytelenül megszerzett hatalom
gyakorlása. Például az USA kongresszusának joga van olyan
törvényeket hozni, amelyek valamit engedélyeznek vagy
betiltanak az USA-ban. Az alkotmány ruházza fel a
kongresszust ilyen hatalommal. Az USA-nak azonban nincs
törvényes joga arra, hogy más országok államformáját
meghatározza. Ez már imperializmus. A ""céltudatos elme"
fogalma alatt olyan gondolkodásmódot értek, amely csak
elérendô vagy elkerülendô célokból indul ki -- de nem
alapulhat minden cselekvésünk ezen a felfogáson. Erre is van
két példám.
Ön talál az utcán egy pénztárcát, benne egy halom
pénzzel. Elviszi a talált tárgyak osztályára, hogy
visszakerüljön a tulajdonosához. Valaki megkérdezi: ""Miért
tette ezt?" Az érdekes az, hogy Ön milyen választ várna el
ilyen esetben. Egyik lehetséges forma a következmények
felsorolása: ""Ha nem adtam volna vissza a pénzt, akkor
biztosan elköltöm vagy bankba teszem. És akkor az
adóhatóságoknak -- Amerikában a híres IRS-nek (Internal
Revenue Service) -- feltûnne a dolog és azt mondanák, hogy
kijátszottam az adókötelezettséget. Az egész nagyon rosszul
is végzôdhetne. Ezért adtam vissza a pénztárcát." Ezzel
szemben az a válasz, amit elvárunk vagy remélünk, egészen
más: ""Nem tudom, miért adtam vissza. Én már csak ilyen
vagyok. îgy neveltek." Vagy: ""Mi ezt tesszük, ez itt így
szokás." Tehát nem veszünk számításba semmiféle profitot.
Nem a ""céltudatos elmére" hivatkozunk, hanem másfajta
felfogásra.
@VKi fizet?@N
Egyszer régen írtam egy tervjavaslatról, amelyben egy
halott macska agyát mesterségesen életben tartanák, és a
látómezejét egy számítógépbe ültetnék, hogy a számítógép
képessé váljon a látásra. ùgy véltem, ez embertelen. Ezt nem
szabadna megtenni. Amikor megkérdezték, hogy miért nem,
akkor ugyanazt a választ adtam, mint a pénztárcás példában:
a terv undorító és tisztességtelen -- egyszerûen nem
tehetjük meg.
Ezzel azt akarom mondani, hogy a döntésekben más
szempontok is szerepet játszanak, még a tudományos
kutatással kapcsolatos döntésekben is. Egyik szempont: mire
használják majd a végterméket? Elkészítek valamit, talán
valamilyen eredményre jutok, és el kell gondolkoznom: mi
történik majd vele?
A kollégákkal folytatott beszélgetésekbôl különféle
válaszokat ismertem meg -- úgy is mondhatnám: különféle
módokat a kérdés kikerülésére. Például: ""Nem tudhatom, mire
fogják késôbb használni a munkámat." Vagy: ""Mindent fel
lehet használni jó és rossz célra, de remélem, hogy a
munkámat jó célra használják majd." Vagy: ""Hol a határ a jó
és a rossz között?" Ezek igen súlyos kérdések. Mivel
valószínûleg egyáltalán nem tudunk válaszolni rájuk, arra a
következtetésre jutunk, hogy nem vállalhatunk felelôsséget
az ilyen döntésekért.
Ha komputerkutatásról, informatikáról és mesterséges
intelligenciáról (MI) van szó, az emberek így szólnak: ""Nem
tudhatom, hogy mire fogják felhasználni." Erre ezt
válaszolom: ò, dehogynem tudja. Itt egy idegen országban
vagyok, de Amerikában nagyon jól lehet tudni, hogy végsô
soron mire használják fel az MI-laborok munkáját, vagy azét
a laboratóriumét (Laboratory for Computer Science), amelyben
én is dolgozom. Az MIT esetében egészen tisztán látjuk: ha
bármilyen mód van arra, hogy egy kutatási eredményt --
például a számítógépes képfelismerésben -- beépítsenek egy
fegyverbe, annak ""tökéletesítése" végett, akkor azt meg is
teszik. Ezt statisztikailag igazolni lehet; de már az is
erre utal, ha egyszerûen megkérdezzük, hogy ki fizeti meg a
munkát. Esetünkben ez legtöbbször a Pentagon. Ebbôl
sejthetô, hogy az eredményeket végsô soron katonai célokra
használják fel.
Természetesen vannak ellenérvek is, például a ""Nem az
én feladatom, hogy megtudjam, mi történik majd a munkámmal."
jellegû válasz. Wernher von Braun, aki ""Megyek a csillagok
felé" címmel írt egy nagyon jó könyvet (amelynek címét
""...de néha Londonba érek" alcímmel lehetne kiegészíteni),
válaszolt az ilyen kérdésekre: ""Ez nem rám tartozik".
Ennyi. Vagy régi kollégám, Herbert Simon, a Carnegie Mellon
University MI Kutatási Részlegérôl -- akivel hosszabb vitát
folytattam errôl a kérdésrôl -- ezt mondta: ""Amerikában
népképviseleti kormányformánk van. Megválasztott
képviselôink kezébe adjuk a döntést, hogy mi történjen a
tudományos munkánkkal. És ha ez nem tetszik nekünk, akkor
választhatunk másokat." Szerintem ez egyfajta lemondás.
Engem ez a német tudósok többségének hozzáállására
emlékeztet, különösen a Harmadik Birodalom idejében:
""Tudósok vagyunk, a politika nem tartozik ránk, a Führeré a
döntés."
Mit kezdünk azzal a gondolattal, hogy mindent fel lehet
használni jó és rossz célokra? Tegnap valaki azt mondta a
sajtótájékoztatón: ""Az Isten szerelmére, nem tilthatjuk be
a cipôgyárakat csak azért, mert a cipôket katonák is
hordhatják." Ekkor jön az a kérdés, hogyan lehet eldönteni,
mi a jó és mi a rossz? Ez természetesen egy ôsrégi képtelen
kérdés, amire nem tudok választ adni. De addig közelíthetünk
hozzá, mígnem könnyebben meghatározhatjuk, hogy hol húzzuk
meg a határokat. S ilyenkor azt kell mondanunk: ""Eddig a
pontig benne vagyok, de tovább nem."
Tehát tulajdonképpen mi a jó és mi a rossz? Hogy
elgondolkozzunk ezen, nagyobb látószögû lencsén keresztül
kell szemlélôdnünk, sokkal nagyobb környezetet kell
átfognunk. Például: Ha az elôadásokon olyan dühösen
beszélek, ahogyan azt elvárják tôlem, akkor elôkerül a
következô érv: ""De hát humán célokra, például az
orvostudományban lehet számítógépeket használni!" Ha kérek
erre egy példát, legtöbbször a komputer-tomográfokat
(CAT-scannerek, Computer Aided Tomography) hozzák fel.
Lehet-e rosszat mondani egy CAT-scannerrôl? Amennyire tudom,
még senkit sem öltek vagy sebesítettek meg vele; arra
használják, hogy megvizsgálják az élô agyat: szükség van-e
mûtétre, és ha igen, akkor hol van a tumor pontos helye,
hogy a mûtét egyszerûbb legyen.
De most nézzük ugyanezt nagyobb látószögbôl! Kérdés,
hogy a CAT-scannereket milyen társadalmi összefüggésben
használják. Az USA-ban azt a hatást váltja ki, hogy az
eddiginél még néhány százezer emberrel több nem fog sosem
orvoshoz menni és orvosi kezelést kapni. Hogyhogy? Az
amerikai orvosok piacgazdasági rendszerben dolgoznak, és
mindig ki vannak téve annak a veszélynek, hogy mûhiba miatt
feljelentik ôket. Ez ellen be kell biztosítaniuk magukat. Ez
pedig azt jelenti, hogy az orvosi ellátás költségei
növekednek. De ez még nem minden. Ha elmegyek egy orvoshoz
és azt mondom, hogy a jobb kezem kisujja fáj, akkor azt
mondaná (természetesen túlzok): ""Teljes kivizsgálásra van
szükség, ami két napot jelent a kórházban, röntgennel,
CAT-scannerrel, vérvizsgálattal és minden egyébbel együtt."
Miért teszi ezt? Azért, hogy ne perelhessék be, mert
elfelejtett valamit.
Ezért a társadalmunk felelôs, és nem az orvostudomány
mint olyan, és a CAT-scannernek már végképp semmi köze
hozzá. Szinte minden kórházban van két-három CAT-scanner,
amelyeket folyamatosan tovább kell tökéletesíteni. Ezek
nagyon drágák, és mi amerikaiak azt vesszük észre, hogy az
egészségügyet tönkreteszi a technikai fejlôdés.
A CAT-scannert tehát azon társadalmi körülmények
fényében kell nézni, amelyekbe be van ágyazva. A
számítógépes képfelismerés esetében teljesen világos --
szinte már kötelezô --, hogy a katonaság azonnal megszerez
magának minden olyan eredményt, amely valamilyen hatást
gyakorol a komputerek látóképességének javulására. Nem
állíthatjuk, hogy nem tudtuk elôre. Pontosan tudjuk.
@VCéltudatos gondolkodás@N
Tegyük fel, hogy meg akarjuk állítani a fegyverkezést a
világon. Hol húzzuk meg a határt ? Szerintem részben
önkényesen kell meghúznunk. Például csinálhatnánk egy
közvéleménykutatást. Mindenki felírhatná egy cédulára, hogy
mikor van vége a napnak, és mikor kezdôdik az éjszaka.
Feltételezem, hogy sok különbözô választ kapnánk. Egyik
ember talán azt mondaná: ""Ha a nap lemegy." És ha tovább
kérdezünk, hogy hol megy le: ""Ha a lakásomban vagyok és a
nap ott megy le a hegy mögött." Vagy egy angol talán azt
mondaná: ""A tea után, de a koktél elôtt." Tehát vannak
meghatározott indokok, amelyekbôl kiindulva döntünk: itt
végzôdik a nap, és onnan kezdôdik az éjszaka. Hogyan tesszük
ezt? Többé--kevésbé önkényesen. De egy világos: tudjuk, hogy
a dél nappal van, és tudjuk, hogy az éjfél éjjel van. Ez az
a kritérium, amit fel akarok használni.
Tehát ha azon dolgozunk, hogy egy rakéta célzási
pontosságát tökéletesítsük, akkor egészen világos: ez
éjszakai munka. Ebben az esetben nem kell kifejtenem, hol
húzom meg a vonalat. Ez egyszerûen az ""éjszakát" jelenti --
ez egyáltalán nem kérdés. És vannak más dolgok, amelyek
társadalmi összefüggésben egyszerûen a ""nappalt" jelentik,
és amelyeket nyugodtan, rossz lelkiismeret nélkül meg lehet
tenni. Meg kell mondanom, hogy társadalmunk egy ôrültek
háza, ezt mindennap olvashatjuk az újságban. Ezért sokkal
hosszabbak az éjszakáink, mint a nappalaink. De ez más téma.
Ilyen módon eldönthetjük, mi a ""jó" és mi a ""rossz".
Bár a döntéssel nem mindenki ért egyet, de magunk számára
mindenképpen érvényes. És aztán elgondolkozunk: ""Végsô
soron hogyan használják majd a munkámat?" Elsôsorban
""nappal"? Vagy fôleg ""éjszaka"? Ekkor eszünkbe ötlik egy
másik kérdés is: ""Milyen körben használhatják fel a
munkámat? Lehet, hogy ezt most nem csinálhatom meg, mert
száz év múlva esetleg rossz célra használják? Vagy még az
életemben megvalósul munkám célja?
Tegnap a sajtótájékoztatón a mesterséges itelligenciával
foglalkozó kutatók, különösen az MIT szakemberei
felelôsségérôl beszéltünk. Arról, hogy mi a mesterséges
intelligencia célja, és vállalhatjuk-e érte a felelôsséget?
Marvin Minsky azt mondta, hogy a MI célja a halál
kiküszöbölése. Feltételezem, hogy néhányan itt kissé meg
fognak lepôdni ezen a kijelentésen. De az Egyesült
Ållamokban széles körben elterjedt ez a felfogás. Ott már
húsz éve folyik ez az eszmecsere; Németországban csak most
kezdenek komolyan foglalkozni vele. Arra a könyvre gondolok,
amelyet Marvin Minsky már említett, Moravec ""Mind Children"
címû könyvére. Moravec azt állítja, hogy nemsokára -- bár az
ô életében sajnos még nem, de gyerekeiében már igen --
számítógépen lehet ""egy embert tárolni". Angolul ""to
download a human being into a computer" -- természetesen
""teljesen digitalizálva", ami azt jelenti, hogy ez az ember
örök életû lehet. Ha a számítógép rozsdásodni kezd, akkor át
lehet vinni ezt a digitális információt egy másik
számítógépre -- ez már a halhatatlanság. Szeretném
hangsúlyozni: Hans Moravec a robot-labor vezetôje a Carnegie
Mellon Universityn. Mindenki tudja, hogy ez az intézmény az
USA egyik nagyon fontos mûszaki egyeteme. És a " Mind
Children" könyv nem az Axel Springer kiadónál jelent meg,
hanem a Harvard egyetemen (Harvard University Press). Tehát
komolyan kell venni. Láthatóan Minsky is komolyan veszi.
Tehát azt állítják, hogy a halál kiküszöbölése a cél, és
még hozzá is teszik: hogyan is hagyhatnánk abba a munkát?!
Ha az ember elfogadja ezt az érvelést, akkor azt a
filozófiai felfogást vallja, hogy a cél szentesíti az
eszközt. Nem tudom, hogy e filozófia nevében hány hordó (így
mondanák ma, hiszen mindig olajoshordókról beszélünk) vért
ontottak ki az elmúlt kétszáz évben.
Érdekes kérdés lenne az is -- bár itt nem tudok
foglalkozni vele --, hogy vajon a halál kiküszöbölése,
amennyiben lehetséges lenne, abszolút érték-e? Nekem az a
véleményem, hogy ez kultúránk megsemmisítését jelentené.
Kultúránk élôlény, amely úgy marad életben, hogy egyik
nemzedék adja át a következônek. Ez nem olyan
információátvitel, mint egy bitsorozat lemásolása. A
kultúrát a következô generáció minden tagjának újból
reprodukálnia kell. De ez a nemzedék már nem ugyanazt hozza
létre, amit az elôzô nemzedék átadott neki, hanem változtat
rajta. Ez az emberi kultúra élete. Valóban meg akarjuk ezt
semmisíteni?
Könyvében Moravec említi kutatási programjának még egy
kis mellékhatását, amit ô ""mind blowing idea"-nak, bomba
ötletnek nevez: egy biológia utáni korszakról beszél.
Világosan megfogalmazza, hogy a DNS hamarosan elveszti
funkcióját, és a biológia, az élet a mi fogalmaink szerint
egyszerûen megszûnik. Ha tehát a kutatásnak ilyen
mellékhatása van, akkor véleményem szerint nem szabad azt
mondanunk, hogy célja abszolút érték.
Milyen messze lehet a távlati cél? Megengedhetetlennek
tartom azt az érvet, amit itt tegnap Marvin Minsky
kifejtett. ï azzal érvelt, hogy a cél jó, de még
nagyon-nagyon messze van, tehát nem kell figyelnünk a
közbensô lépésekre. Azt hiszem, ez nem mehet így.
@VElfojtás@N
Amerikában pontosan tudjuk: ha sikert érünk el a
képfelismerés és a mesterséges intelligencia területén,
akkor az egy fegyver ""tökéletesítéséhez" fog vezetni. De ez
a tudás meglehetôsen távoli, ugyanis hozzászoktunk ahhoz,
hogy tetteink és azok következményei között lélekben
távolságot tartsunk. Társadalmunkban ez igen széles körben
elterjedt, s nemcsak most, az évszázad utolsó évtizedében.
Vietnam bombázására gondolok, egy tízezer méter magasan
repülô B-52-es géppel. Egy kis képernyôn megjelenô
elektronikus jelzés közli a pilótával, hogy elérte a célt,
ki kell oldania a bombát. Megnyom egy gombot. A bombák
lezuhannak. A pilóta nem látja ôket. Már messze jár, amikor
a bombák becsapódnak. Nem is hallja ôket. Egészen biztos,
hogy az emberek kiáltását sem hallja. Csak azért képes
megnyomni a gombot, mert lélekben távol tartja magát tette
következményeitôl.
Ez mintegy húsz éve volt. Ma ugyanezt láthatjuk a
videojátékoknál, amelyekkel a gyerekek játszanak. Sokan
panaszkodnak: milyen szörnyû, hogy a gyerekek passzívan
ülnek és nézik a tévét. Ugyanezek az emberek azt állítják,
hogy a megoldást a videojátékok jelentik. A gyerek néz egy
filmet a tévében, mondjuk a ""Run silent, run deep"-et,
amelyet az USA-ban már ezerszer lejátszottak. Ez jellegzetes
módon a tengeralattjárókról szól, szinte azt lehetne
mondani, hogy az ilyen filmek paródiája. A gyerek látja,
amint a kapitány a periszkópon keresztül figyel egy
teherhajót, amely lehet, hogy hadihajó. Aztán egy ideig
mûszaki részletekrôl van szó, például a hajó távolságáról
stb., majd kilövik a torpedót. A matrózok stopperrel mérik
az idôt, és izgatottan várják a becsapódást. Aztán a
kapitány távcsövén keresztül látja, amint felrobban a hajó
és a legénység odavész. Megint sikerült. De a szülôk
aggódnak a gyerek miatt, aki csak passzívan ül a tévé elôtt,
s nem csinál semmit. Segít majd a videojáték! Ezzel a gyerek
maga lehet a tengeralattjáró kapitánya, egy gombnyomással
kilôheti a torpedókat, és ha ügyesen csinálja, akkor
láthatja, hogyan robban fel és süllyed el a hajó. Én azt
mondom, hogy ez egyfajta gyakorlása a cselekedetek és azok
következményei közötti lelki távolság megteremtésének. A
gyerek legtöbbször nem gondol arra, hogy emberek halnak meg,
amikor a hajó felrobban. Különösen a videojátéknál nem,
hiszen ott mindent nagyon gyorsan kell csinálni. Ráadásul ha
tíz hajót süllyeszt el, akkor több pontot kap mint a
kisöccse, aki ugyanennyi idô alatt csak hét hajót tud
elsüllyeszteni. Erre tanít a videojáték.
Egy kis újságcikkben olvastam, hogy Németországban --
amely igen fejlett ország -- olyan számítógépes játék került
forgalomba, amelyekben a gyerekek egy koncentrációs tábort
irányíthattak. @K(Közbekiáltás a terembôl: Ezt a játékot
Németországban betiltották!)@N Igazából az az érdekes, hogy
egyáltalán létezett ilyesmi, s azután be kellett tiltani.
Amire ki akarok lyukadni: az ember csinál valamit, és a
cselekedet következményeit figyelmen kívül hagyja.
@VSzépítgetés@N
A kutatólaboratóriumokban hasonló dolgot lehet
megfigyelni. Erre mondok egy kis történetet. Egyszer
Cambridge-ben éppen a Harvard téren mentem át, amikor
odajött hozzám egy fiatalember, aki azelôtt egyik
szemináriumomra járt. Most doktorál, és szeretné elmesélni,
hogy mirôl írja disszertációját. Képzeljek magam elé egy
óriási képernyôt, amelyen egy medve és egy kiscica látható.
A cica egy labdát dob a medvének, aki elkapja, és
visszagurítja a cicának. A képernyô elôtt ül egy kislány,
aki így szól a rendszerhez: ""Medve, ha valaki ad neked
valamit, akkor köszönd meg." Ha ezután a macska megint
odadobja a labdát a medvének, akkor a medve így szól:
""Köszönöm, kedves cica". A disszertáció lényege ennek a
rendszernek a megvalósítása. A profik tudják, hogy ez
roppant nehéz feladat, fôleg hogy olyan gördülékenyen
menjen, ahogy a fiatalember leírta. Beszédfelismerésre van
szükség, meg ilyesmikre. Megkérdeztem a doktorjelöltet, hogy
akarja-e hallani, hogyan látom én a rendszert, hogy
meggyôzôdjek, jól értettem-e. És elmeséltem neki a következô
történetet: Egy pilóta ül a vadászgépben, és a rendszer
egyszer csak megszólal: ""Uram, ott lenn ellenséges
harckocsioszlopot látok." A pilóta ekkor így szól a
rendszerhez: ""Ha ilyesmit látsz, akkor indítsd el a
rakétákat, és ne kérdezd meg mindig." -- és a rakéták útra
kelnek. Pont. Vége a történetnek. Megkérdeztem a
fiatalembert, hogy jól írtam-e le a munkáját, és ô azt
felelte, hogy igen, így is fel lehet fogni. Megkérdeztem, ki
fizeti a kutatás költségeit. Kiderült, hogy a hadsereg.
ùgy vélem, az én értelmezésem közelebb áll a valósághoz,
mint az övé. Voltak hasonló tapasztalataim más kutatási
tervezetekkel is, amelyeket ugyanilyen csodálatosan szép
mesékkel festettek le. Mellékesen, az 1980 elôtti idôszakban
-- tehát a Reagan-kormányzat elôtt -- a Pentagon igen ritkán
nevezte nevén fegyverrendszer-kutatási megrendeléseit.
Minden lehetséges eufemizmust felhasználtak.
Csak a nyolcvanas évek kezdetén -- amit a Time magazin
az új hazafiasság idejének nevezett -- kezdte el a Pentagon
a fegyverrendszereket valóban nevükön nevezni. Az MIT-n
három rendszeren dolgoztak, elsôsorban a mesterséges
intelligenciát kutató laboratóriumban -- a tervezet neve SCI
volt (Strategic Computing Initiative). Az egyik rendszer
éppen az a pilóta-rendszer volt, amelyet az elôbb
ismertettem: a ""Pilot Assistance" feladata, hogy a második
embert helyettesítse a vadászgépen.
@VA pénz diktatúrája@N
ùgy vélem, fausti szerzôdést kötöttünk a tudománnyal és
a technikával. Faust nem ingyen adta el a lelkét. Akart
valamit cserébe. Mi sem ingyen adjuk el a lelkünket, mindig
kapunk valamit cserébe. Itt van például a High Definition
Television -- nagyfelbontású televízió (HDTV). Ezzel jobb és
szebb képet kapunk. A kutatás hatalmas összegeket emészt
fel. A kutatás céljának valójában kevés köze van a
szórakoztatáshoz, de azt mondjuk, na jó, lépjünk még egyet
elôre, hiszen ez az egy lépés senkinek sem fog ártani. Nem
tûnôdünk el azon, hogy egyáltalán akarjuk-e. Ha itt
megkérdezném, hogy melyikük számára nélkülözhetetlen a HDTV,
akkor valószínûleg senki sem mondana igent. De tíz éven
belül önök közül szinte mindenkinek lesz otthon HDTV-je. Itt
valami nincs rendben. Mindenki elismeri, hogy nincs rá
szükségünk, különösen azért nem, hogy lássuk azt a sok
ostobaságot, ami általában a tévébôl jön. Mesterségesen
létrehozott szükségleteink vannak. És valami nincs rendben,
ha mesterségesen hozunk létre szükségleteket, s ugyanakkor
sok ember létfontosságú szükségletei sincsenek kielégítve.
Tehát akarunk valamit, s ezalatt kifejlesztünk egy olyan
rendszert, amely félrevezet bennünket. Többé nem tudjuk
kontrollálni, de nem is lehet visszafordítani. Már nem
mondhatjuk, hogy hibát követtünk el, csináljuk vissza az
egészet. E rendszerek közül sok már irányíthatatlan,
áttekinthetetlen és visszafordíthatatlan.
Lehet-e másképp csinálni? Az a véleményem, hogy az
embereknek fel kellene ismerniük a kor szükségleteit, azokat
fontossági sorrendbe állítani, és e lista alapján dönteni: a
természetnek feltehetô kérdések közül ténylegesen melyekre
vagyunk most kíváncsiak, és a mûszakilag megvalósítható
berendezések közül melyeket állítsuk elô ténylegesen?
Már nem a megoldással kellene kezdenünk. Körülbelül
tizenöt évvel ezelôtt még az volt a szokás abban a
számítástechnikai laboratóriumban, ahol dolgoztam, hogy
mondjuk az orvosok odajöttek hozzánk és azt mondták:
""Önöknek van egy csodálatos készülékük, amelyet biztosan
fel lehetne használni az orvostudományban. Mi elmagyarázzuk
az orvosi szempontokat, Önök pedig elmondják nekünk, hogyan
lehetne a készüléket felhasználni." Tehát a megoldással
kezdték. Az ügyvédek is ilyenek. S különösen így van ez az
iskolákban.
El kell azon gondolkozni, hogy az amerikai iskolákban a
fiatalok jelentôs része analfabéta -- legalábbis olyan
értelemben, hogy nem érti meg, amit olvas. Nem arról van
szó, hogy egy képregényt sem tudnak elolvasni, hanem arról,
hogy nem tudnak elolvasni egy álláshirdetést, nem is
beszélve az ûrlapról, amit ki kell tölteniük, hogy megkapják
az állást. Az iskolákban aztán ilyen kérdéseket tesznek fel
mint ""Why Johnny can't read?" -- ""Miért nem tud Johnny
olvasni?". Teljesen világos: a megoldás a számítógép, mivel
a számítógépek motiválják a gyerekeket, különösen a
fiatalokat. îgy érvelünk, ahelyett, hogy valóban
elgondolkoznánk: miért nem tud Johnny megtanulni olvasni, s
nem csak reménykednénk, hogy a számítógép majd segít. Meg
kell tudni, miért nem tud Johnny megtanulni olvasni! Lehet,
hogy kiderül: azért, mert minden nap éhes. És aztán tovább
kérdezünk: de hiszen adtak az iskolában reggelit és ebédet
-- miért nem tud enni? Mert beszüntették az iskolai
étkeztetést. Miért szüntették be? És így tovább. @K(Itt a
szociális közkiadások Reagan elnöksége alatti sorozatos
lefaragására utal Weizenbaum -- a szerk.)@N
Hamarosan politikai kérdésekbe ütközünk. Azért kezdünk
mindent a megoldással, hogy elkerüljük a szembesülést a
politikai kérdésekkel. Lehet, hogy Johnny azért nem tanul
jól, mert fél az iskolában? Miért kellene félnie? Mert az
amerikai iskolákban már nemcsak a kábítószer-kereskedelem
jelent óriási problémát, hanem az is, hogy a tanulók
lôfegyvert hordanak maguknál.
Tehát kérdéseket kellene feltennünk, és nem a
megoldással kezdenünk -- a tudomány és a technika területén
is! Hiszen manapság nem nehéz listát készíteni a
szükségletekrôl. E listát mindenki ismeri, hiszen szinte
banális: az éhezés, a légkör veszélyeztetettsége, az
elôttünk álló ökológiai katasztrófa, háborúk és így tovább.
Mindenki összeállíthatja ezt a listát, hogy aztán
eldöntse: hol kezdjük, mi a fontos és mi nem. Ha ezt
megtennénk a tudomány összes területén, akkor szerintem
kiderülne, hogy egyszerûen le kellene állítani különbözô
olyan nagyberuházásokat, amelyekkel ma foglalkozunk. Nem
azért, mert a problémák nem lennének érdekesek, hanem azért,
mert azokat ma nem engedhetjük meg magunknak, és
gyerekeinknek is kell hagynunk valamit. Például a
Mars-utazásokra gondolok: kétségtelenül gyönyörû feladat --
de miért annyira sürgôs? Miért most kell megcsinálnunk,
amikor oly sok a baj?! Vagy itt vannak az óriási
részecskegyorsítók. Szép dolog, hogy egyre többet tudunk a
fizikáról, de most nem engedhetjük meg magunknak ezt a
technikát. Semmi kifogásom egy Maserati, egy Ferrari vagy
egy Porsche ellen -- de az ilyen gépeket ugye nem bíznánk
egy tizenhárom éves gyerekre? Azt hiszem, hogy mi -- a mi
társadalmunk -- nem vagyunk elég érettek arra, hogy bánni
tudjunk jónéhány létrehozható rendszerrel. Meg kell
gondolnunk, mielôtt belekezdünk ilyen tervekbe. Tehát én
amellett vagyok, hogy legyen tudományos moratórium,
halasszuk el az olyan tervek megvalósítását, amelyek évente
körülbelül egymilliárd dollár kiadást jelentenek. Ilyesmit
csak akkor csináljunk, ha nem találunk a pénz számára jobb
felhasználási területet.
És a végkövetkeztetésem: nincs abszolút kutatói
szabadság, és nem is lehet. Nem akarok felülrôl jövô
irányítást sem, s még kevésbé diktatúrát. Legkevésbé a pénz
olyan diktatúráját, amilyen ma van, és amelyben a tudósok és
a kutatók szellemi prostituáltakként viselkednek.
@VJoseph Weizenbaum@N
Aligha foglalkozott annyit más informatika-kutató a
számítástechnika társadalmi következményeivel, mint a 69
éves Joseph Weizenbaum. 1923-ban született Berlinben.
1936-ban családjával kivándorolt az Egyesült Ållamokba. A
II. világháború után fejezte be matematikai tanulmányait
Detroitban, és elkötelezte magát az informatika mellett.
1963-ban mint az informatika professzora elôadói
megbízást kapott a Massachusetts Institute of Technology-n.
Az amerikai hadseregtôl jelentôs kutatási támogatást kapó
MIT-n, ""a világ legnagyobb játékboltjában" (Weizenbaum)
gondolkodott el Weizenbaum a tudomány társadalommal szembeni
felelôsségérôl. A német ""Informatikusok a békéért és a
társadalmi felelôsségért" fórum és az amerikai
""Számítástechnikusok a társadalmi felelôsségért" csoport
alapító tagja a számítógépes világ életre kelt
lelkiismeretévé vált. Elutasítja, ha magányos, alibit keresô
kritikusnak nevezik.
@VNémet nyelvû irodalom:@N
Die Macht der Computer und die Ohnmacht der Vernunft (A
számítógépek hatalma és az ész tehetetlensége); Suhrkamp
kiadó, 1977. (angol kiadás: Computer Power and Human Reason)
Kurs auf den Eisberg -- Oder das Wunder wird uns retten,
sagt der Computerexperte (Irány a jéghegy -- avagy segít
rajtunk a csoda, mondja a szakértô); Pendo kiadó, Zürich
1984.
Kurs auf den Eisberg -- Die Verantwortung des Einzelnen
und die Diktatur der Technik (Irány a jéghegy -- Az egyén
felelôssége és a technika uralma); Piper kiadó, München
1987.
Computer im Alltag (Számítógép a mindennapokban). Joseph
Weizenbaum, Klaus Haefner; kiadta Michael Haller; Pendo
kiadó, Zürich 1987.
Sind Computer die bessere Menschen? (A számítógépek a
tökéletesebb emberek?). Vita Joseph Weizenbaum és Klaus
Haefner között. Kiadta Michael Haller, Pendo kiadó, Zürich
1990.
Naturwissenschaft oder Esoterik (Természettudomány avagy
titkos tudomány). H. Pitschmann, F. Paschke, K. Apel, J.
Weizenbaum, Leuschner und Lubensky kiadó, 1990.